CoWorld Reasoner: Agentic Multimodal Reasoning with the Evolving Video World Model-Driven Harness
CoWorld Reasoner:以可进化视频世界模型工具链驱动智能体多模态推理
🧭 Agent 多模态推理 · VWM 工具进化
The Hong Kong Polytechnic University · Hangzhou Diagens Biotechnology Co., Ltd
Agentic 框架将视频世界模型作为统一视觉推理引擎,通过可进化 tool/skill 动态生成视觉证据,多基准相对提升 11.8%–13.0%
📌 工作参考价值(4 点)
- 在电商多模态商品理解中,可借鉴「视觉想象作为额外证据」范式:对只有单图/短视频的商品,用世界模型生成多角度、场景变化或使用过程片段,作为 VLM 推理补充输入,降低对完整 3D/视频采集的依赖。
- 采用「工具 + 技能」双层 harness 控制生成行为:把生成模型封装为多个视觉操作工具(如视角合成、时序补全),用结构化 skill 描述指导 LLM 决定是否/何时/如何生成,避免固定 pipeline 只做单一想象形式,适配标题生成、详情页卖点抽取等多任务。
- VLM-VWM Harness Co-Evolution 的思路可直接迁移到推荐 Agent 的 tool/prompt 迭代:记录执行失败/低质量输出,用反馈让 LLM 修订工具描述、技能文档和调用代码;模型权重冻结,可以低成本持续优化线上 Agent 的视觉工具链。
- 在搜索/推荐多模态评测中,该方法提示:对需要时空/因果推理的任务,单纯 VLM 直接推理不足,应加入生成型证据接入和 agentic 调用框架;业务中可先在商品视频问答、用户上传视频审核等任务上试点世界模型辅助取证。